RECAP:反馈驱动的流式语义用户画像优化
🧭 流式用户画像 · 闭环 GRPO 优化 ★ 深度解读
University of Science and Technology of China · Kuaishou Technology · China Academy of Cyber
闭环框架通过清洗隐式反馈训练双塔评估器,用GRPO优化流式结构化用户画像生成,提升推荐对齐度
📌 工作参考价值(4 点)
- 将用户画像维护为有界结构化状态:LLM 只产出语义差异(确认已有兴趣、新兴趣),确定性状态机管理生命周期、容量和强度衰减。电商/广告场景中用户兴趣同样流式变化,这种解耦保证了画像状态可追踪、可解释,避免 LLM 输出不稳定元数据,工程落地性强。
- 从隐式反馈构建高质量奖励:通过 LLM pairwise judge 过滤行为对,只保留高置信语义一致的正负样本,再训练双塔评估器作为奖励模型。这比直接使用排序分或原始播放/跳过标签更干净,适合业务中缺乏显式语义偏好的场景,可用于优化文案生成或推送消息筛选。
- GRPO 优化 LLM 画像更新器:用冻结的双塔评估器计算逐块画像更新的奖励,配合格式惩罚和多样性惩罚(如证据重叠惩罚),在 SFT 基础上进一步对齐下游任务。该范式可迁移至对话策略或搜索词推荐的在线优化,利用离线日志安全训练。
- 流式分块并行训练:长行为历史分块,SFT 预计算前缀画像,每块独立优化,大幅降低序列计算开销,适合大规模用户行为流的工业训练。
PaperFlow:面向日常论文流的三阶段画像-推荐-自适应框架
🧭 科研论文流推荐 · 画像漂移自适应
Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences) · University of Chinese Academy of Science · Shanghai Artificial Intelligence Laboratory
提出面向日常论文流的三阶段框架,通过动态画像、多信号排序和兴趣漂移自适应提升纵向推荐效果
📌 工作参考价值(4 点)
- 日常流式推荐场景可借鉴三阶段架构:Profiling阶段将冷启动证据转化为结构化兴趣画像,电商中可从用户行为序列、搜索词等构建动态画像,避免静态特征失效。
- Recommending阶段的多信号聚合排序在固定曝光预算下平衡相关性与多样性,类似电商信息流或消息推送,可以将CTR预估、多样性指标、时效性等信号加权融合,并引入曝光预算控制。
- Adapting阶段利用语义不同的反馈信号(点击、忽略、收藏等)增量更新用户状态,建模兴趣漂移,适合电商中基于用户实时行为的在线学习系统,可与类似EWC或记忆回放的方法结合防止遗忘。
- 提出的纵向用户-日基准设计思路可直接复用:固定时间窗口、用户、候选池,模拟每日决策与累积反馈,评估系统在连续交互下的长期表现,比单次离线评估更贴近线上效果。